RHBZ1230463: systemtap.spec: remove glibc-headers buildrequires

We are reliably informed that this is unnecessary, and may
become harmful someday if glibc changes its subpackaging scheme.

Fix PR20211 by aimplementing the "resume mode" of the testsuite.

Once the SYSTEMTAP_TESTSUITE_RESUME environmental variable is set
to some non-zero value, the testsuite can run in "resume mode".

In this mode, tests, that have previously been run, are not being
re-executed, and their existing test results are being reused and
merged instead.

This can be useful e.g. when some of the tests causes kernel panic
or stall. Using the "resume mode", it is possible to reboot the
testing box, and re-run the testsuite skipping already executed
tests (incl. the one that caused the panic or stall - which will
stay "unfinished").

The "make list-unfinished" lists all such unfinished testcases.
Those need additional investigation.

The "resume mode" can be used with "make installcheck", or
"make installcheck-parallel".

Run publicanize.sh as a part of update-docs.

* doc/Tapset_Reference_Guide/publicanize.sh: Use abspaths.
* scripts/update-docs: Run publicanize.sh too.

Make syscall.kexec_load and syscall.kexec_load.return optional.

* tapset/linux/syscalls.stp: Make syscall.kexec_load and
  syscall.kexec_load.return optional. kexec_load can be configured out of
  the kernel.

Use std::to_string to lex_cast from integers

I don't know any case where this makes a performance difference, but it
does reduce stap's .text by about 2%.

sys/sdt.h: add troubleshooting blurb

Fix PR20189 by updating the vfs tapset.

* tapset/linux/vfs.stp: Handle removal of PAGE_CACHE_SIZE by defining our
  own _STP_PAGE_SIZE which is either PAGE_CACHE_SIZE or PAGE_SIZE.

Fix PR20187 by updating socket.recvmsg.

* tapset/linux/socket.stp: Fix 'size' convenience variable of
  socket.recvmsg for newer kernels.

fix parser, delay consuming ')'

Fix PR20136 by using the @const() operator across the tapsets.

Re-fix PR19926 by simplifying previous implementation.

This reimplementation of the @const() operator (0a7eb12d191)
is based on PR20136, comment 3. It moves all the logic to the
parser.  No elaboration involved.

Make expect_op_any lazier

- Work directly from an initializer_list instead of making a vector.
- Don't construct the error message until we're sure there's an error.

Fix build for RHEL6

Fix PR20161 by handling VM_FAULT_MINOR being removed from rawhide kernels.

* tapset/linux/memory.stp (vm_fault_contains): Handle VM_FAULT_MINOR being
  undefined by treating it the same way we did when it had the value of 0.

Fix PR20158 by updating the runtime for the 4.6 kernel.

* buildrun.cxx (compile_pass): Added autoconf-stacktrace_ops-int-address.c
  compile test.
* stack.c: (print_stack_address): If STAPCONF_STACKTRACE_OPS_INT_ADDRESS
  is defined, the function returns a int instead of being a void
  function.
* runtime/linux/autoconf-stacktrace_ops-int-address.c: New autoconf-style
  test.

PR20056: add missing ==

PR20056: add a comment

PR20056: improve parser error message

* parse.cxx: new function expect_op_any, use new function for expecting
  a list of alternatives.

Fix PR20131 by making wildcard library paths work in probe specifications.

* tapsets.cxx (dwarf_builder::build): Fix logic error with commit
  c30ff77. If the library path isn't fully resolved, then use the path the
  user specified.
* testsuite/systemtap.base/listing_mode.exp: Decrease failures by being
  more forgiving about getting a full library path in 'stap -l' output.

PR19624: add test cases

testsuite/parseko/duplicateparam01.stp
testsuite/parseko/duplicateparam02.stp
testsuite/parseko/duplicateparam03.stp

PR19624: Duplicate function paramater names are not detected

parse.cxx (do_parse_functiondecl): detects duplicate parameter names

Made a small improvement to testsuite/lib/systemtap.exp.

* testsuite/lib/systemtap.exp: Rearrange a bit so that the
  'shutdown_server' and 'cleanup' functions get defined before being
  called.

Fix PR20132 by updating the runtime to handle a 'struct inode' change.

* runtime/transport/transport.c (_stp_lock_inode): Use the new inode
  lock/unlock routines.
  (_stp_unlock_inode): Ditto.
* buildrun.cxx (compile_pass): Add autoconf-inode-rwsem test.
* runtime/linux/autoconf-inode-rwsem.c: New 'autoconf' test.

Update listing_mode.exp to handle changes in stap output.

* testsuite/systemtap.base/listing_mode.exp: Decrease failures by being
  more forgiving about getting a full library path in 'stap -l' output.

Fix PR17055 by reading perf values in a sleepable context.

* tapsets.cxx (common_probe_entryfn_prologue): Add 'declaration_callback'
  and 'pre_context_callback' to allow callers to add to output prologue.
  (dwarf_derived_probe::emit_probe_local_init): For perf values, instead
  of reading the values here, just copy the values from where we stashed
  them when we read them before (when we could sleep).
  (uprobe_derived_probe::emit_perf_read_handler): New function.
  (uprobe_derived_probe_group::emit_module_perf_read_handlers): Ditto.
  (udpg_entryfn_prologue_declaration_callback): Ditto.
  (udpg_entryfn_prologue_pre_context_callback): Ditto.
  (uprobe_derived_probe_group::emit_module_utrace_decls): Call
  new function emit_module_perf_read_handlers().
  (uprobe_derived_probe_group::emit_module_decls): Figure out the maximun
  number of perf counters used per probe.
* tapsets.h: Add new callbacks to common_probe_entryfn_prologue().
* runtime/linux/uprobes-common.h (stap_uprobe_spec): Add
  'perf_read_handler' to actually read perf values.
* runtime/linux/uprobes-inode.c (stapiu_consumer): Ditto.
* runtime/linux/runtime.h: After loading the task_finder code, load the
  perf code if needed.
* runtime/common_probe_context.h: Add 'perf_read_values' to the context
  structure when we're using perf derived probes.
* testsuite/systemtap.base/perf.sh: Change '/usr/bin/cat' to '/bin/cat' so
  that systems (like RHEL6) that don't have 'usrmove' will still work.

Fix PR20122 by removing LD_LIBRARY_PATH from the environment.

set -i as default for stap-server.service

replace -c 'sleep' usage with -T

Fix PR19926 by introducing translator built-in @const() operator.

Tapsets or guru-mode user scripts can access header file constant
tokens, typically macros, using built-in @const() operator.  The
respective header file inclusion is possible either via the tapset
library, or using a top-level guru mode embedded-C construct.
This results in appropriate embedded C pragma comments setting.

dwflpp.cxx auto-iteration

Converting explicit iterator types to C++11 "auto".

tapsets.cxx iterator auto-pocalypse

Iterators might be the most common place where long templated types are
needed, and they're easily determined by C++11 "auto". Start converting!

tapsets: use levenshtein_suggest for kprobe.function

new -T timeout option

* cmdline.h: Add -T flag
* elaborate.cxx: New function setup_timeout to create timer probe
* session.cxx: Initialize new timeout variable. Parse -T option
* session.h: New timeout variable
* man/stap.1.in: Documentation
* testsuite/systemtap.base/timeout.exp: Test it

Initialize pointer

* stap-serverd.cxx: initialize strlst

monitor mode: fix printing of globals

Previously, aggregates were not being printed properly. The count of the
aggregate is now printed. String globals are now printed with ""s.

* elaborate.cxx:
  - semantic_pass: initialize monitor mode after type resolution.
  - monitor_mode_init: rerun type resolution after new procfs probes.

compile server: use only one server for multiple kernel versions

* stap-serverd.cxx:
  - Remove uname_r global
  - kernel_build_tree is now a map of kernel version -> build tree
  - process_r: Defer adding -r flag
  - create_services: Create one service per target kernel version
  - handle_request: Pass -r flag to stap based on client's sysinfo field
* stap-server:
  - spawn only one server passing -r flags for each kernel version when
    using the -i option

monitor mode: revive the help hint

eventcount sample: reorder columns

The event count/rate columns are of a more predictable width, so fit
better in the middle than the far right.

elaborate.cxx: add some respect for pending_interrupt

Some wildcardy stap scripts can cause processing for quite awhile
within elaborate.cxx loops, without due respect for ^C.  Now respond
quicker, at least in the cases relevant to

  ./stap -v  .../fntimes.stp 'process("/usr/sbin/PROCESS").function("*")'

PR20065: autoreconf after 'aclocal -Im4 --install'

Link monitor libs to stapio only

PR20042: support tracepoints with function-pointer args

For example, tracepoint "cpuhp_enter" has "int (*fun)(unsigned int))",
but since dwarf_type_name() didn't handle DW_TAG_subroutine_type, it
would call this "void*", and then the whole tracepoint function
signature would fail -Werror=incompatible-pointer-types.

We can now expand function-pointers in dwarf_type_name(), but we also
need a new dwarf_type_decl() which knows how to insert the name in the
middle of the type string.

_stp_perf_read: check the union type before accessing fields

Use std::mutex to guard the spawned_pids set

Use std::thread for threading and CPU counts

Fix PR20040 by keeping the task_exe_file function from sleeping.

* tapset/linux/task.stp: No longer call get_task_mm()/mmput(), so that the
  function won't sleep and cause kernel bugs.

dwflpp: use fixed-size buffers for ldd parsing

The dynamic string allocation causes trouble on RHEL5 -- %as is always
parsed as a float under C++11, but %ms requires glibc >= 2.7.  But we
already used a fixed buffer for the line, so additional fixed buffers
are not a big deal for its substrings.

Merge branch 'master' of ssh://sourceware.org/git/systemtap

remote: use initializer lists to build cmd vectors

stap-serverd: use initializer lists to build cmd vectors

session: use initializer lists to build cmd vectors

csclient: use initializer lists to build cmd vectors

buildrun: use initializer lists to build cmd vectors

util.h: double-check C++11 support

Plug preempt leak in _stp_runtime_entryfn_put/get_context.

If _stp_runtime_entryfn_get_context returns a context, preemption
counter is always incremented. On the other hand
_stp_runtime_entryfn_put_context only decrements the counter if the
passed context matches the one currently set on the cpu.

The context can be set to NULL by _stp_runtime_contexts_free, making the
comparison false and in effect leading to a leak, e.g.:
timer: _stp_ctl_work_callback+0x0/0x1e0[stap_af8544c7eb51251ef8c
 377abff659b05_25070] preempt leak: 00000101 -> 00000102

monitor mode: remove pipe

Save output to monitor ring buffer directly instead of sending it
through a pipe.

* staprun/mainloop.c: remove pipe fd from fd set
* staprun/monitor.c: remove pipe data processing, add mutex for ring
  buffer
* staprun/relay.c:
  reader_thread - add line processing logic
  init_relayfs - remove pipe
* staprun/staprun.h - remove pipe

Fix: process.library.function failed with sysroot.

Signed-off-by: Torsten Polle <Torsten.Polle@gmx.de>

Fix: Processes are not found.

If sysroot is set, module_val will get sysroot as prefix. But
is_fully_resolved() is appending sysroot once more.

Signed-off-by: Torsten Polle <Torsten.Polle@gmx.de>

Fix: Debug links are not found if the sysroot is used.

Signed-off-by: Torsten Polle <Torsten.Polle@gmx.de>

Support the sysroot option for modules added for symbol/unwind information

The sysroot option failed for modules added for their symbol/unwind
information. Those user module names are prepended by sysroot.

Signed-off-by: Torsten Polle <Torsten.Polle@gmx.de>

Specialize hash<interned_string> for the different implementations

We need the custom hash for boost::string_ref, but the fallback based on
std::string can just forward its hashing.

Also note C++17's std::string_view, which hashes natively.

note the possible use of std::string_view

Dissolve unordered.h

Use std::unordered_map et al

Remove the unused auto_free.h

If anyone wants similar functionality again, unique_ptr and shared_ptr
can take custom deleters, e.g. std::unique_ptr(p, std::free);

Use make_shared for creating exp_types

Always use std::shared_ptr rather than boost's

Also demonstrate better "auto" and "make_shared" use in stapdyn.

Assume unique_ptr is available now

stapdyn: always use decltype instead of typeof

The former is standard C++11, and the latter is a compiler extension.
They work equivalently as used here.

autoreconf -i

configure: make C++11 mandatory

We'll use RHEL6 (GCC 4.4) as our baseline.  This doesn't have full C++11
support, but it's enough for us to see some benefit.

Improved fake utrace locking.

* runtime/stp_utrace.c: Fixed potential locking issues by changing the
  'task_work_added' and 'report_work_added' members of 'struct
  utrace' to be atomic variables. In the process, I also renamed
  'task_work_added' to 'resume_work_added'. As atomice variables, they can
  be modified without locking the utrace struct. Also renamed the 'work'
  member of 'struct utrace' to 'resume_work' (to match up with
  'resume_work_added').

Fix PR19954 by avoiding "suspicious RCU usage" message.

* runtime/transport/symbols.c (_stp_module_update_self): Properly handle
  RCU locking when retrieving the 'kallsyms' member of the module
  structure.

monitor mode: some improvements

Increased size of help window, fixed probe list scrolling

PR20013: stap --dump-functions broken

monitor mode: some refactoring, add a border to status window

staprun: reinstate -d '*' operation

PR14245 created a new relay_basedir_fd variable, for use when
staprun/stapio passes staprun a file descriptor for the base directory
of the sysfs systemtap-module directory.  (This is necessary in order
to get around 0700 mount-dir permissions.)  This broke staprun -d '*'
operation, since that variable got set (badly) once within the readdir
loop, and thence made actual removes inoperative.  Now we clear out
that variable so each actual module subdirectory will get a good
cleaning.

monitor mode: bugfix

Fix an off by 1 error and always flush output.

monitor mode: Use pop up panel for help message

monitor mode: simplify scrolling

Tab is now used to select the window to perform scrolling on.

Fix PR19990 by updating runtime/linux/access_process_vm.h.

* runtime/linux/access_process_vm.h (__access_process_vm_): Use
  get_user_pages_remote() when available.
* buildrun.cxx (compile_pass): Added export test for
  'get_user_pages_remote()'.

Avoid using tcl exec command "-ignorestderr" option

In older versions of tcl the exec command does not support the
"-ignorestderr" option.  Changed the code to redirected the stderr
output to /dev/null which works on both older and newer versions of
tcl.

installcheck-parallel: show end of systemtap.sum when done

Remove empty script file warning for tapset files

Empty tapset files warnings are now suppressed and not removed.
Empty user level scripts still have this warning.

Autoreconf following commit 6a32afe.

Fix testsuite's installcheck-parallel behavior for stap not in $PATH.

This fixes the testsuite's installcheck-parallel target so that it
works even when stap binary resides on some place not referenced
within $PATH.

Note that we want to stop the testing in case environment_sanity.exp
fails.  For this reason we need to avoid calling runtest using
the execrc script.

Remove a blacklist regular expression that wasn't needed.

* dwflpp.cxx (build_kernel_blacklist): Removed a blacklist regexp,
  "|raw_.*", since it didn't seem to match any locking functions as it was
  supposed to do.

Move the testsuite's artifacts directory to the builddir.

This update is a response to PR10791#c15. It moves the artifacts
directory, introduced in commit 8093ef39b, to the build directory
avoiding writes to the source directory.

Modify the dry run mode for the network/socktop example.

We want to avoid testsuite writing into the source directory.
Before this update, when socktop has been run by check.exp as
a part of the testsuite run, it was copying the module to the
working directory.  We want to avoid this.

Fixed PR19940 by updating runtime/linux/access_process_vm.h.

* runtime/linux/access_process_vm.h: Changed page_cache_release() to
  put_page().

Terminate testsuite run if compiler sanity test fails.

Ensure that the testsuite run terminates right at the beginning
if compiler sanity test fails.  This notably ensures that required
headers, object files and libraries are in place for the main arch,
as well as for the compat arch in the multilib environment.

Fix PR19905 by adding support for the preadv2/pwritev2 syscalls.

* tapset/linux/syscalls2.stp: Added preadv2/pwritev2 syscall probes.
* tapset/linux/nd_syscalls2.stp: Ditto.
* tapset/linux/aux_syscalls.stp (_preadv2_flags_str): New function.
* testsuite/systemtap.syscall/preadv.c: Added preadv2() testing.
* testsuite/systemtap.syscall/pwritev.c: Added pwritev2() testing.

Improve 64-bit file offset handling in syscall.preadv and syscall.pwritev.

* tapset/linux/syscalls2.stp (syscall.preadv): Improve handling of 64-bit
  offsets.
  (syscall.pwritev): Ditto.
* testsuite/systemtap.syscall/preadv.c: Turn on 64-bit file offsets and
  add tests to make sure we're decoding them properly.
* testsuite/systemtap.syscall/pwritev.c: Ditto.

Add missing asmlinkage() calls to nd_syscall.{membarrier,userfaultfd}.

* tapset/linux/nd_syscalls.stp (nd_syscall.membarrier): Add missing
  asmlinkage() call.
* tapset/linux/nd_syscalls2.stp (nd_syscall.userfaultfd): Ditto.

Add the testsuite parallel testing feature.

This merges updates from the mcermak/paralleltest branch into the master.

Fix PR19915 by correctly updating the wsize.

tapset docs: ctime overloading

Vincent Bernat reported problems building with --enable-htmldocs due
to the newly overloaded ctime() function docs.  Tweak the /** */
docs for the second overload, so as to suffer errors in neither
html nor pdf build phases.

Fix typo in SystemTap_Tapset_Reference/man3

This patch fix some spelling typos found in
doc/SystemTap_Tapset_Reference/man3.

Signed-off-by: Masanari Iida <standby24x7@gmail.com>

Finish fixing PR19882 by updating support for the copy_file_range() syscall.

* tapset/linux/syscalls.stp: Corrected argstr formatting for
  'copy_file_range'.
* tapset/linux/nd_syscalls.stp: Corrected argstr formatting and types for
  'copy_file_range'.
* testsuite/buildok/nd_syscalls-detailed.stp: Updated copy_file_range test.
* testsuite/buildok/syscalls-detailed.stp: Ditto.
* testsuite/systemtap.syscall/copy_file_range.c: Got copy_file_range()
  test working.

PR19882: add copy_file_range syscall supportt

tapset/linux/nd_syscalls.stp: kprobe based syscall probe for
copy_file_range syscall
tapset/linux/syscalls.stp: kernel function based syscall probe for
copy_file_range syscall
buildok/[nd_]syscalls-detailed.stp: basic buildok tests for the new
probe points
copy_file_range.c: test file to check new tapset functionality